La société d'intelligence artificielle xAI d'Elon Musk a lancé lundi son dernier modèle linguistique, Grok 3, marquant une avancée importante pour la société dans le domaine de l'IA. Selon Musk, le nouveau modèle nécessite dix fois plus de puissance de calcul que son prédécesseur, utilisant un centre de données situé à Memphis, équipé d'environ 200 000 GPU. La série de modèles Grok 3 propose plusieurs variantes, notamment une version allégée, conçue pour améliorer la vitesse au détriment de la précision. De plus, un nouveau modèle de « raisonnement » est spécialement conçu pour résoudre des problèmes de mathématiques et de sciences.

Les grands modèles de langage sont affectés par l'ordre des prémisses dans les tâches de raisonnement logique, un désordre entraînant une baisse de performance de 30 %. Le changement de l'ordre de présentation des prémisses a un impact significatif sur les performances des grands modèles en matière de raisonnement, avec une baisse de performance pour Pro et GPT-3.5-Turbo. La modification de l'ordre des prémisses dans le raisonnement logique entraîne une forte baisse des performances des LLM, nécessitant des recherches supplémentaires pour trouver une solution. Dans le raisonnement logique, l'ordre des prémisses a une influence déterminante sur les performances des grands modèles de langage, ce qui reste un défi. Des chercheurs de Google DeepMind et de Stanford ont découvert que les grands modèles de langage...